Manifold Drift in Flow Preference Optimization: A Root Cause of Reward Hacking
流匹配偏好优化中的流形漂移：奖励黑客的一个根因
🧭 流匹配偏好优化 · 奖励黑客
Westlake University · Zhejiang University · Kling Team, Kuaishou Technology
提出 ThermoDPO 及加权变体，用偏好样本锚定缓解流匹配偏好优化中的流形漂移与奖励黑客
📌 工作参考价值（3 点）
- 在生成式推荐、广告文案/商品图生成中若用 DPO/RLHF 做偏好对齐，需监控生成结果是否偏离原始数据流形（例如用重建误差或密度估计），否则 reward 提升但真实质量和多样性可能下降，即 reward hacking。
- ThermoDPO 的“偏好样本锚定 + 温度控制”思路可迁移：增加 winner-side anchor 项，等价于在 rejection sampling fine-tuning 与 DPO 之间插值，能控制偏离程度；温度低时信号减弱，可改用加权变体强化高分样本梯度。
- 如果业务中有 flow matching 生成（商品图、创意素材），偏好更新会通过法向位移把终端样本推出预训练支持集，建议加入流形距离正则或重建代理项，保持生成内容的自然度和可编辑性。